【数据法学】刘元兴：英国政府发起了算法歧视调查

B D A I L C 

 欢 迎 关 注 

王雪涛

英国政府发起了算法歧视调查

文 / 京东数字科技研究院法律与政策研究中心研究员 刘元兴

编者按

2019年3月20日,英国政府官网公布，英国世界第一数据伦理与创新中心（CDEI）发布了首个列明优先事项的年度工作计划和战略，并宣布CDEI将和英国内阁办公室种族差异中心（RDU）联合调查研究刑事司法、金融服务、招聘和地方政府管理中算法决策应用的潜在歧视问题。此外，CDEI还将会调查研究如何才能最大化发挥算法决策在前述领域中的应用优势和潜力。

一、 CDEI和RDU的简介

英国数据伦理与创新中心（CDEI）

英国政府设立数据伦理与创新中心(the Centre for Data Ethics andInnovation,CDEI)有利于支持和帮助政府开展实施其宏观工业战略，其设立的目的是确保数据驱动型技术和人工智能被用来造福社会，以确保人类对数据和技术（例如人工智能）应用有足够的信心和信任。其由一个Roger Taylor 担任主席的独立委员会领导。

更多CDEI工作信息，请参见以下链接：

https://www.gov.uk/government/groups/centre-for-data-ethics-and-innovation-cdei

英国种族差异小组 (the Race Disparity Unit,RDU)

继2016年设立英国首相府差异审计委员会（the PrimeMinister’s commission of a Race Disparity Audit）之后，紧接着，英国政府在内阁办公室（the Cabinet Office）内设了英国种族差异小组 (the RaceDisparity Unit,RDU)。其官方网页 Ethnicity facts and figures

（https://www.ethnicity-facts-figures.service.gov.uk/）

持续展示不同种族和不同背景的人获得公共服务的差异。更多RDU信息，以及其如何与其他部门和利益相关团体一起合作处理种族差异问题，请访问英国政府官网RDU版块RDU page on GOV.UK. 

(https://www.gov.uk/government/organisations/race-disparity-unit)

二、算法歧视调查

算法决策应用的两面性

算法在预测犯罪、维护公共安全以及改善服务提供方式方面有着巨大的应用潜力和优势。但是，在这些领域作出的算法决策很可能会对人们生活产生重大影响。因此赢得公众对算法决策应用的信心和信任是很重要的。

算法决策，一方面有助于解决传统的歧视性问题，另一方面也有可能产生新的算法过程歧视（数据来源歧视和算法设计歧视）和算法结果歧视。

在刑事司法、金融服务、招聘和地方政府管理中，专业人员正在日益增多地使用建立在数据基础上的算法以帮助他们做决策。例如，在招聘中，计算机算法将会被用来查看简历和候选人名单。这会潜在地限制传统招聘中针对候选人的种族和社会背景产生的无意识歧视的影响（传统性歧视）。但是，在算法推荐性结果中可能会反映出歧视性问题和风险（结果歧视）。例如，曾经有关于人工智能和数据技术（自动化决策或算法决策）无意之间加剧了性别歧视的报道。在金融服务中，数据分析被长期用来提供授信决策支持。但是数据和人工智能机器学习的兴起和应用，也可能意味着算法决策透明性和公平性问题（算法黑箱）会大大增加。

算法歧视调查的目的和内容

一方面，CDEI将会调查研究在刑事司法、金融服务、招聘和地方政府管理中算法决策应用的潜在歧视问题。CDEI此次调查研究的目的是保障人工智能或算法技术使用者能够理解其中潜在的歧视问题，并采取适当措施来处理该问题。CDEI还希望确保算法决策公平并改进决策流程。

另一方面，CDEI还将会调查研究如何才能最大化发挥算法决策在前述领域中的应用优势和潜力。CDEI将调查数据驱动型技术能够帮助解决传统系统中潜在歧视问题并支持作出公平决策的优势和潜力。这包括增加普通民众在现有招聘系统中的工作机会以及金融服务系统中的信贷获得机会。其还将调查研究算法在推动数字经济创新的优势和作用。

刑事司法领域中的算法歧视性问题

在刑事犯罪司法领域中，算法可以被用来评估再次犯罪的可能性，并帮助执法或司法人员作出有关治安、缓刑和假释的决定。一些警察执法人员已经开始使用算法为他们的执法决策提供支持，例如，英国杜伦地区的警察使用损害评估风险工具（the Harm Assessment Risk Tool）在评估未来犯罪风险的基础上来辅助判断违法者是否符合延迟起诉的条件。

三、CDEI首个工作计划和战略

CDEI发布了首个列明优先事项的全年工作计划和战略。这个工作计划和战略廓清了英国成为未来行业领先国家面临的巨大挑战，以确保英国跟上全球（科技发展）潮流，并改善英国人民生活和提高国家生产力。“人工智能和数据”问题（包括算法歧视和数据隐私等）是确保英国在新一轮人工智能和数据革命中居于领先地位的四大挑战之一。

发现更多信息，可参见Centre for Data Ethics and Innovation.(https://www.gov.uk/government/groups/centre-for-data-ethics-and-innovation-cdei)

CDEI首个工作计划和战略中的优先事项

CDEI首个工作计划和战略（firstWork Programme and Strategy）中的优先事项包括调查研究使用大数据和人工智能技术进行个性画像和精准投放等商业策略和计划。例如某人在搜索某个产品后，其浏览器中稍后就会出现的类似产品推荐。

调查研究内容包括两项：（1）调查研究网络定位营销和精准服务方法使用的场景、方式和原因，以及产生的公共影响；（2）CDEI可以启动一系列的全国性工作坊，开展对精准投放或定位营销的公众可接受性调查。

关于上述两项政策性调查，CDEI将会在今年夏天公布中期报告，并在明年早些时候发布最终报告。

四、英国内阁官员和CDEI主席的表态

在唐宁街举办的发布CDEI列明优先事项的工作计划和战略的活动中，英国内阁办公室数字化秘书 Jeremy Wright 说道：“技术应该是一个改善人类生活的向善力量，但前提是我们必须确保其在一个安全可靠的轨道上发展。我们数据伦理与创新中心的设立目的，就是努力促进实现这个目标并保持英国居于科技发展和应用领先国家行列。我很高兴地看到，CDEI专家团队正在对包括刑事司法和金融服务等领域中算法决策应用的潜在歧视性问题展开调查。我希望见到，CDEI为政府提供有效推荐性建议，即我们需要何种措施来确保最大化发挥这些强大科技造福人类社会的作用。”

CDEI主席Roger Taylor 满怀期待地说：“CDEI正在聚焦处理数据驱动技术带来的最大挑战和相应机会。这事关一系列复杂的问题，因此我们需要充分利用英国国内外专家资源。如果这些问题得以正确处理，英国将成为负责任创新的全球领导者。我们想和算法使用机构（包括企业、公共机构、非盈利性组织等）合作，以便帮助他们能够最大化发挥数据驱动型技术对社会福利的增进作用，并使用数据驱动型技术确保其商业决策或公共决策的正当合理性。首先，我们正在做的，就是要盘点和调查在算法决策对人类生活有巨大影响的关键领域中的潜在歧视性问题。我很高兴，CDEI公布的首个工作计划和战略的优先事项包括该项内容。”

联系英国数字、文化、媒体&体育部（TheDepartment for Digital, Culture, Media & Sport,DCMS）新闻办公室，请拨打 0207 211 2210.

原文：英国政府官网https://www.gov.uk

本文仅作学习交流之用

江寒汀

往期荐读

编辑：钟柳依

欢迎点击“阅读原文”